OpenAI confirme avoir rencontré un « important problème »

ChatGPT a rencontré un gros bug. L’historique de conversations de certains utilisateurs a été transmis à d’autres internautes. OpenAI est rapidement monté au créneau pour corriger le tir, mais l’incident ravive nos préoccupations en matière de données personnelles…

Début de cette semaine, ChatGPT, l’agent conversationnel d’OpenAI, a souffert d’un sérieux dysfonctionnement. Tout à coup, les historiques de conversations de certains utilisateurs ont été partagés avec d’autres usagers du chatbot. 

L’intelligence artificielle conserve en effet un historique de toutes les requêtes et de toutes les réponses dans la partie gauche de l’interface. De cette manière, les internautes peuvent à tout moment récupérer une information ou un texte généré par l’IA. Il est possible d’effacer les conversations en cliquant sur « Clear conversations ».

À lire aussi : quels métiers sont touchés par la révolution ChatGPT ? 

Un bug a partagé les historiques de conversations de ChatGPT

Une pléthore d’internautes s’est promptement rendue sur les réseaux sociaux, comme la plate-forme Reddit ou Twitter pour témoigner, captures d’écran à l’appui, de l’ampleur du bug. Fort heureusement, celui-ci est resté limité, rapportent nos confrères de Bloomberg.

ChatGPT is showing me history and conversations that aren't mine. Obviously an accident/bug but a good reminder that you should not send it stuff you wouldn't send a stranger. One day the whole DB will leak or AI will remember some detail from the training deta set and leak it. pic.twitter.com/eVAaJ9vtcR

— wapiflapi (@wapiflapi) March 20, 2023

Seuls les titres de chaque échange sont apparus dans l’interface. Les usagers ne pouvaient pas consulter les questions posées d’autres personnes à ChatGPT. De plus, il était impossible de remonter jusqu’à l’identité des utilisateurs. En clair, l’identité des internautes et leurs centres d’intérêt n’ont pas été divulgués par la fuite. On notera d’ailleurs que les titres choisis automatiquement par ChatGPT ne sont généralement pas évocateurs. Ils permettent uniquement de retrouver un échange en cas de besoin. Bref, ce dysfonctionnement n’a pas vraiment mis en péril la vie privée des internautes.

we had a significant issue in ChatGPT due to a bug in an open source library, for which a fix has now been released and we have just finished validating.

a small percentage of users were able to see the titles of other users’ conversation history.

we feel awful about this.

— Sam Altman (@sama) March 22, 2023

Sur son compte Twitter, Sam Altman, PDG et cofondateur d’OpenAI, a confirmé l’existence d’un « important problème » provoqué par « un bug dans une bibliothèque open source » ce 22 mars 2023. Le dirigeant précise que seul un « petit pourcentage d’utilisateurs » ont effectivement été en mesure de lire les titres des conversations d’autres internautes.

Malgré tout, OpenAI a préféré jouer la prudence en mettant ChatGPT hors ligne pendant plusieurs heures, même pour les abonnés à l’offre payante ChatGPT Plus, dès que le dysfonctionnement a été repéré.

Dans la foulée, la startup a désactivé l’historique des conversations. Si l’accès à ChatGPT a rapidement été restauré, les historiques sont restés inaccessibles durant plusieurs jours. Il n’était plus possible de consulter de précédentes conversations ou d’en enregistrer de nouvelles. Là encore, les abonnés payants et les usagers de la version gratuite étaient logés à la même enseigne. Un bref avertissement était mis en avant par l’interface :

« L’historique est temporairement indisponible. Nous nous efforçons de restaurer cette fonctionnalité dès que possible ».

Mercredi soir, la fonction a finalement été restaurée. Sam Altman explique qu’un « correctif a maintenant été publié et nous venons de terminer la validation ». Une partie de l’historique des conversations a été perdu dans l’opération, prévient le patron d’OpenAI : 

« Malheureusement, les utilisateurs ne pourront pas accéder à leur historique de chat du lundi 1 h PDT (NDLR : 9 h, heure de Paris) au lundi 10 h PDT (NDLR : 18 h, heure française) ».

Si vous avez échangé avec le chatbot avant ou après cette plage horaire, toutes vos conversations ont bien été enregistrées. Une fois que l’historique a été réactivé, nous avons bien retrouvé toutes les conversations de la semaine, à l’exception des échanges de lundi.

La question des données personnelles 

Cet incident, finalement sans grande conséquence, relance les inquiétudes liées au respect de la vie privée des usagers de ChatGPT. En théorie, des données sensibles peuvent être partagées avec des inconnus si un bug analogue survient à nouveau.

L’événement rappelle surtout que la start-up dispose d’un accès à tous vos échanges avec l’intelligence artificielle. Sur son site web, dans la section Privacy, OpenAI explique sans détours que les informations transmises à ChatGPT sont collectées par ses soins :

« Lorsque vous utilisez nos services, nous pouvons collecter des informations personnelles qui sont incluses dans les entrées, les téléchargements de fichiers ou les commentaires que vous fournissez ».

L’entreprise explique consulter « les conversations pour améliorer nos systèmes et nous assurer que le contenu est conforme à nos politiques et à nos exigences de sécurité ».

Par ailleurs, la start-up s’octroie le droit de recueillir « des informations qui, seules ou en combinaison avec d’autres informations en notre possession, pourraient être utilisées pour vous identifier ». L’anonymat des usagers n’est donc pas garanti. En clair, OpenAI peut savoir quelles questions un individu a posées à ChatGPT… ce qui est problématique.

Ne partagez pas de données sensibles avec ChatGPT

Par extension, un hypothétique pirate informatique, qui parviendrait à pénétrer dans le système, ou un gouvernement, qui exigerait la coopération d’OpenAI dans le cadre d’une enquête judiciaire, est également en mesure de découvrir ce qu’un internaute bien précis demande à ChatGPT.

Sans surprise, la firme américaine déclare d’ailleurs « se conformer aux obligations légales et aux procédures judiciaires ». Par précaution, OpenAI recommande de limiter les informations que vous donnez à son robot conversationnel :

« Veuillez ne pas partager d’informations sensibles dans vos conversations ».

Certaines entreprises formulent le même conseil à leurs employés. C’est le cas d’Amazon. La firme exhorte ses employés à ne jamais fournir d’informations confidentielles à l’IA générative. Le géant du commerce en ligne redoute que ces données, concernant ses projets en cours notamment, soient exploitées par le chatbot…